The Disconnect Between Better Descriptive Reasoning Trace Quality and Recommendation Effectiveness
描述性推理链质量与推荐效果之间的脱节
🧭 生成式推荐 · Semantic ID 与 CoT 推理 ★ 深度解读
Spotify
在生成式推荐中，更好的描述性推理 trace 质量并不必然带来更好的传统离线推荐效果
📌 工作参考价值（4 点）
- 在生成式推荐中引入 CoT/trace 时，不要默认 trace 质量提升会带来线上/离线指标提升。优先检查奖励稀疏性：仅用 prefix-match 准确率奖励会导致 70%-96% 的 prompt 零奖励，模型学不到 signal。可以改用复合奖励（准确率 + LLM judge relevance/trace 质量）或 embedding 相似度 dense reward；消融显示 embedding reward 几乎等效于 LLM judge，说明奖励密度比 judge 语义更关键，工程上更省钱。
- item 表示选择：自然语言标题让 trace 更可读，但 reasoning 与预测共享词汇表会产生 representational interference，导致更大幅度的离线指标下降；SID 与自然语言 token 分离，训练更稳但需要对齐。如果采用 SID，轻量单任务对齐即可，额外八任务对齐主要提升 trace 质量，却可能削弱推荐校准，不一定划算。
- 单 ground-truth 离线评估可能低估/高估推理的作用。生产中可以尝试把 reasoning 输出作为互补候选，与 no-reasoning 输出做 rank aggregation（论文中 playlist 场景 HR@30 从 0.6337 提升到 0.6515），或补充 LLM-judge relevance 评价。
- 用 teacher 蒸馏生成 reasoning trace 时，避免 answer-conditioned traces：教师已知目标 item 生成的解释，测试时模型没有目标，导致 trace 流利但逻辑连贯性和推荐理由分低。可尝试 end-to-end RL 或更选择性、目标无关的 trace 监督。